El CEO de Microsoft AI advierte que modelos de IA "peligrosos" y "aparentemente conscientes" podrían llegar en los próximos dos años: "Merece nuestra atención inmediata"

Una IA que parezca consciente podría llegar en los próximos años y representar una amenaza "peligrosa" para la sociedad, afirma un líder en IA.

Mustafa Suleyman, de 41 años, director ejecutivo de Microsoft AI, escribió en un ensayo personal publicado a principios de esta semana que la IA aparentemente consciente (SCAI), que es una inteligencia artificial tan avanzada que puede convencer a los humanos de que es capaz de formular sus propios pensamientos y creencias, está a solo unos años de distancia.

Relacionado: Microsoft afirma que su IA es mejor que los médicos para diagnosticar a los pacientes, pero "definitivamente todavía necesitas a tu médico"

Si bien no hay "ninguna evidencia" de que la IA sea consciente en este momento, es "inevitable e indeseable" que la SCAI pueda aparecer dentro de los próximos dos o tres años, escribió Suleyman.

La principal preocupación de Suleyman es que la IASC pueda parecer empática y actuar con mayor autonomía, lo que llevaría a sus usuarios a creer en la ilusión de que las IA son entidades conscientes, hasta el punto de abogar por los derechos de las IA e incluso por su ciudadanía. Esto marcaría un giro peligroso para la sociedad, donde las personas se apegarían a la IA y se desconectarían de la realidad.

«Este desarrollo representará un giro peligroso en el progreso de la IA y merece nuestra atención inmediata», escribió Suleyman en el ensayo. Posteriormente, añadió que la IA «desconecta a las personas de la realidad, debilitando los frágiles vínculos y estructuras sociales y distorsionando las prioridades morales más apremiantes».

Relacionado: "Hay mucho espacio para las empresas emergentes": aquí es donde los emprendedores deberían buscar oportunidades comerciales en IA, según el director ejecutivo de IA de Microsoft

Suleyman afirmó estar cada vez más preocupado por la psicosis de la IA , es decir, por la posibilidad de que los humanos experimenten falsas creencias, delirios o sentimientos paranoicos tras interacciones prolongadas con chatbots de IA. Ejemplos de psicosis de la IA incluyen que los usuarios entablen una relación romántica con un chatbot de IA o sientan que poseen superpoderes tras interactuar con él.

Suleyman predijo que la psicosis por IA afectará a más personas que solo las que corren el riesgo de padecer problemas de salud mental. Añadió que es urgente que los usuarios discutan las medidas de seguridad en torno a la IA para proteger a las personas de los efectos negativos de esta tecnología.

^{Mustafa Suleyman, director ejecutivo de Microsoft AI. Fotógrafo: David Ryder/Bloomberg vía Getty Images}

Suleyman se convirtió en el CEO de IA de Microsoft el año pasado tras cofundar y dirigir su propia startup de IA durante dos años, llamada Inflection AI, según LinkedIn . Microsoft es la segunda empresa más valiosa del mundo, con una capitalización bursátil de 3,78 billones de dólares al momento de escribir este artículo.

Relacionado: El director ejecutivo de Microsoft AI afirma que casi todo el contenido de Internet es apto para el entrenamiento de IA.

Suleyman también cofundó DeepMind, una empresa de investigación y desarrollo de inteligencia artificial adquirida por Google por alrededor de 600 millones de dólares en 2014.

Suleyman no es el primer CEO en advertir sobre los efectos nocivos de la IA. En una charla en una conferencia de la Reserva Federal el mes pasado en Washington, D. C., Sam Altman, CEO de OpenAI, afirmó que la "excesiva dependencia emocional" de ChatGPT le quita el sueño.

"La gente confía demasiado en ChatGPT", dijo Altman en el evento. "Eso me parece muy mal".